重磅！华为发布准万亿大模型
近日，华为在MoE模型训练领域再进一步，推出参数规模高达7180亿的全新模型——盘古Ultra MoE，这是一个全流程在昇腾AI计算平台上训练的准万亿MoE模型。华为同时发布盘古Ultra MoE模型架构和训练方法的技术报告，披露众多技术细节，充分体现了昇腾在
moe
昇腾算力“炼”出业界一流大模型
华为日前在MoE模型训练领域再进一步，推出参数规模高达7180亿的全新模型——盘古Ultra MoE。这是一个全流程在昇腾AI计算平台上训练的准万亿MoE模型。华为同时还发布了盘古Ultra MoE模型架构和训练方法的技术报告，披露众多技术细节，充分体现了昇腾
每2秒吃透一道高数大题！华为终于揭秘准万亿MoE昇腾训练系统全流程
具体来说，华为在这次发布的技术报告中，披露了在昇腾CloudMatrix 384超节点上，高效打通大稀疏比MoE强化学习后训练框架的关键技术。
黑土地开鲜花，昇腾算力炼出准万亿领先大模型
近日，华为在MoE模型训练领域再进一步，重磅推出参数规模高达7180亿的全新模型——盘古Ultra MoE，这是一个全流程在昇腾AI计算平台上训练的准万亿MoE模型。华为同时发布盘古Ultra MoE模型架构和训练方法的技术报告，披露众多技术细节，充分体现了昇
华为的准万亿大模型，是如何训练的？
三分之一个世纪前，加拿大学者们提出了经典的MoE模型神经网络结构，在人类探索AI的「石器时代」中，为后世留下了变革的火种。
不用GPU，大模型每2秒吃透一道高数大题！这就是华为的实力
现在，请大家一起数一下“1”、“2”。OK，短短2秒钟时间，一个准万亿MoE大模型就已经吃透如何解一道高等数学大题了！而且啊，这个大模型还是不用GPU来训练，全流程都是大写的“国产”的那种。这，就是华为通过“昇腾+Pangu Ultra MoE”这套组合拳解锁
昇腾算力炼出业界一流大模型
近日，华为在MoE模型训练领域再进一步，重磅推出参数规模高达7180亿的全新模型——盘古Ultra MoE，这是一个全流程在昇腾AI计算平台上训练的准万亿MoE模型。华为同时发布盘古Ultra MoE模型架构和训练方法的技术报告，披露众多技术细节，充分体现了昇
华为揭秘：国产昇腾训出世界一流大模型
近日，华为在MoE模型训练领域再进一步，重磅推出参数规模高达7180亿的全新模型——盘古Ultra MoE，这是一个全流程在昇腾AI计算平台上训练的准万亿MoE模型。华为同时发布盘古Ultra MoE模型架构和训练方法的技术报告，披露众多技术细节，充分体现了昇
华为揭秘国产算力+国产模型的全流程自主可控训练实践
近日，华为在MoE模型训练领域再进一步，重磅推出参数规模高达7180亿的全新模型——盘古Ultra MoE，这是一个全流程在昇腾AI计算平台上训练的准万亿MoE模型。华为同时发布盘古Ultra MoE模型架构和训练方法的技术报告，披露众多技术细节，充分体现了昇
每2秒吃透一道高数大题！华为终于揭秘准万亿MoE训练系统全流程
具体来说，华为在这次发布的技术报告中，披露了在昇腾CloudMatrix 384超节点上，高效打通大稀疏比MoE强化学习后训练框架的关键技术。
苹果iPhone 17灵动岛大变革：MOE技术或将让其彻底隐形！
随着全球科技界的目光聚焦于即将召开的WWDC 2025，苹果公司的重大变革计划悄然浮出水面。据彭博社知名记者Mark Gurman的最新爆料，苹果打算在此次开发者大会上对旗下操作系统进行一次前所未有的版本号大调整。具体而言，iOS、iPadOS、macOS、w
昇腾原生，华为发布准万亿模型Pangu Ultra MoE模型架构和训练细节
近日，华为在MoE模型训练领域再进一步，重磅推出参数规模高达7180亿的全新模型——盘古Ultra MoE，这是一个全流程在昇腾AI计算平台上训练的准万亿MoE模型。华为同时发布盘古Ultra MoE模型架构和训练方法的技术报告，披露众多技术细节，充分体现了昇
为什么混合专家模型（MoE）如此高效：从架构原理到技术实现解析
在人工智能技术快速演进的背景下，大型语言模型的架构设计始终围绕仅解码器（decoder-only）的Transformer结构展开。自第一个GPT模型发布以来，该架构已成为主流设计范式。尽管研究人员在效率优化方面进行了诸多改进，但核心架构结构保持相对稳定。
开放创新托举产业生态，昇腾AI持续升腾
当前，智能算力革命重塑产业创新范式，人工智能进入“指数级跃迁”时代，模型迭代速度也迎来“指数级加速”。无论是扩展模型规模、提升泛化能力的“参数摸高”，还是优化模型架构、提升运行效率的“工程创新”，都在沿着各自路径快速推进，共同推动大模型敏捷迭代和规模应用。
训练大模型，终于可以“既要又要还要”了
如今，后发优势再一次来到了大洋此岸，以华为为代表的中国科技企业，纷纷提出对MoE架构的优化重组方案。尤其是华为的MoGE架构，不仅克服了MoE负载不均衡及效率瓶颈的弊病，还能够降本增效，便于训练和部署。
盘古Ultra准万亿MoE模型：业界一流，源自昇腾原生的长稳训练
Pangu Ultra MoE是一个全流程在昇腾NPU上训练的准万亿MoE模型。最近华为盘古团队发布了Pangu Ultra MoE模型架构和训练方法的技术报告[1]，进一步披露了这个模型的细节。
还得是华为！Pangu Ultra MoE架构：不用GPU，训练准万亿MoE大模型
Pangu Ultra MoE 是一个全流程在昇腾 NPU 上训练的准万亿 MoE 模型，此前发布了英文技术报告[1]。最近华为盘古团队发布了 Pangu Ultra MoE 模型架构与训练方法的中文技术报告，进一步披露了这个模型的细节。
ultra moe ult panguultra pangu 2025-05-29 14:02 10
AI这场仗，蚂蚁决定这么打
5月27日下午16点多，接任蚂蚁集团CEO仅87天的韩歆毅，穿着黄色短袖来到杭州蚂蚁A空间正进行的“蚂蚁黑客松”比赛，并坐在前排台阶上仔细聆听。今年3月，获清华大学经济学硕士学位的韩歆毅升任蚂蚁集团CEO。
事实证明，全程充分利用 AI 大脑并非运行模型的最高效方式
即使在中国之外，模型构建者也越来越多地转向混合专家 (MoE) 架构，并辅以新兴的压缩技术，以降低部署大语言模型 (LLMs) 时所需的计算资源。自从 ChatGPT 引发生成式 AI 热潮近三年以来，人们终于开始考虑这些模型运行成本的问题。
从大模型工程视角看DeepSeek-V3/R1
DeepSeek-V3/R1 凭借 61 层神经网络、58 层 MoE 架构及 14906 个专家，在高效推理与经济性上实现突破。其 MLA 机制有效压缩键值缓存，降低内存占用，多 Token 预测等技术更是大幅提升数据效率与训练速度，正推动大模型向更高效、智